Search


再論超便宜40G Ethernet與InfiniBand比較
  • Share this:


再論超便宜40G Ethernet與InfiniBand比較
http://www.ebay.com/…/Mellanox-ConnectX-3-Vpi…/202039082064…
像這邊有 MCX354A-QCBTC VPI 網卡只要NT 2600元 (不含運)
實際上此為40G IB或是10G 乙太網路卡

詳細規格
http://www.mellanox.com/…/prod_adapt…/ConnectX3_VPI_Card.pdf
VPI 版本最大特色是可做為infiniband 或網路 nic 用韌體工具切換
https://community.mellanox.com/docs/DOC-1131

不管是作為接頭IB or 乙太網路都用QSFP+ (QSFP14)線材

說明書
http://www.mellanox.com/…/ConnectX-3_Pro_Ethernet_Single_an…

驅動 FW
http://www.mellanox.com/page/products_dyn…

VMWare esxi 目前只有看到6.0
http://www.mellanox.com/…/Mellanox_MLNX-NATIVE_ESX_Driver_f…

如何在Proxmox VE 5 上安裝
https://forums.servethehome.com/index.php…

使用IB 理論上比乙太網路延遲時間更短 但是線的距離較短.要先啟用SM (IB Subnet Manger)
還有要轉換到其他1G,10G網路麻煩. 因此必須看環境應用

這邊有文件可以給大家參考比較
HowTo Configure SR-IOV for ConnectX-3 with KVM (InfiniBand)
https://community.mellanox.com/docs/DOC-2368

HowTo Configure SR-IOV for ConnectX-3 with KVM (Ethernet)
https://community.mellanox.com/docs/DOC-2365

至於某位大大說的40G卡要支持 Accelerated Switch And Packet Processing (ASAP2)
成本太高了 我們這次先不討論

但是最基本的
1.SR-IOV
2.PCI Pass-through 一定要有支持
3. Dpdk 支持是舊版https://community.mellanox.com/docs/DOC-2197?forceNoRedirect=true

mellanox connectx-3 後都有支持,但主機環境就不一定有
OSSLab Geek Lab 有遇過Server不支援, 軟體Firewall效能大概低了30%


Tags:

About author
我們的理念是,做個 Reverse engineering Lab 要公開跟分享真實有效的 IT 技術與原理,才能驗證技術是否正確。 並且嘗試各種不同技術、知識、發想概念的組合來測試能否得到更佳的結果
這是個IT實驗室在Storage 、Information security、 Networking 、Embedded 造業(Karma)與解業的故事及心得
View all posts